Wissenschaftler in China haben nach eigenen Angaben eine Maschine entwickelt, die auf künstlicher Intelligenz (KI) basiert, um Straftäter anzuklagen.
Die Staatsanwaltschaft Shanghai Pudong, die größte Staatsanwaltschaft des Landes, hat die Maschine gebaut und getestet. Bisher ist die Maschine in der Lage, die acht häufigsten Straftaten in Shanghai – Kreditkartenbetrug, Glücksspiel, rücksichtsloses Fahren, vorsätzliche Körperverletzung, Behinderung von Amtspflichten, Diebstahl, Betrug und Streit – zu erkennen und anzuklagen.
Den Forschern zufolge kann der so genannte KI-“Staatsanwalt” auf der Grundlage einer schriftlichen Beschreibung eines Falles mit 97-prozentiger Genauigkeit eine Anklage erheben.
Professor Shi Yong, der leitende Wissenschaftler des Projekts, sagte, dass die KI-Technologie die tägliche Arbeitsbelastung von Staatsanwälten verringern könnte, so dass sie sich auf anspruchsvollere Aufgaben konzentrieren können. Shi ist auch Direktor des Labors für Big Data und Wissensmanagement an der Chinesischen Akademie der Wissenschaften, dem wichtigsten staatlichen Forschungsinstitut des Regimes.
“Das System kann Staatsanwälte bei der Entscheidungsfindung bis zu einem gewissen Grad ersetzen”, so Shi und sein Team in einem Beitrag, der diesen Monat in der chinesischen Fachzeitschrift Management Review veröffentlicht wurde. Die South China Morning Post berichtete zuerst über die neu entwickelte KI-Maschine.
Shi und seine Kollegen erklärten, dass chinesische Staatsanwälte im Jahr 2016 mit dem Einsatz von KI begonnen haben. Viele von ihnen nutzen inzwischen ein KI-Tool namens “System 206”. Das System ist in der Lage, die Stärke der Beweise, die Bedingungen für eine Verhaftung und die Gefährlichkeit eines Verdächtigen für die Öffentlichkeit zu bewerten.
Alle bisherigen KI-Tools spielten jedoch nur eine begrenzte Rolle, da sie sich nicht am Entscheidungsprozess der Anklageerhebung und der Strafzumessung beteiligten”, heißt es in dem Papier.
Um solche Entscheidungen treffen zu können, muss eine Maschine die für ein Verbrechen irrelevanten Inhalte einer Fallakte identifizieren und entfernen und die nützlichen Informationen behalten, heißt es weiter.
Die Maschine muss außerdem die komplexe, sich ständig ändernde menschliche Sprache in ein mathematisches oder geometrisches Standardformat umwandeln, das ein Computer verstehen kann, heißt es in dem Papier.
Chinas Internetunternehmen haben leistungsstarke Tools für die Verarbeitung natürlicher Sprache entwickelt, doch ihr Einsatz erfordert oft große Computer, zu denen Staatsanwälte keinen Zugang haben.
Der von Shis Team entwickelte KI-“Staatsanwalt” könnte auf einem Schreibtisch arbeiten. Sie würde für jeden Verdächtigen eine Anklage erheben, die auf 1.000 “Merkmalen” basiert, die aus den von Menschen erstellten Fallbeschreibungen gewonnen werden, von denen die meisten zu kurz oder abstrakt sind, um für Menschen Sinn zu ergeben. Das System 206 würde dann die Beweise bewerten.
Shi sagte, sie hätten mehr als 17.000 Fälle aus den Jahren 2015 bis 2020 verwendet, um die Maschine zu trainieren.
In dem Papier wird davon ausgegangen, dass die KI-Staatsanwaltschaft mit Hilfe von Upgrades bald an Kompetenz gewinnen wird. Sie wäre dann in der Lage, weniger häufige Straftaten zu erkennen und mehrere Anklagen gegen einen Verdächtigen zu erheben.
Doch die neue Maschine warf bei chinesischen Staatsanwälten Fragen auf. Ein Staatsanwalt in Guangzhou sagte in dem Bericht, er habe einige Bedenken hinsichtlich des Einsatzes von KI-Staatsanwälten bei der Erhebung von Anklagen.
Die 97-prozentige Genauigkeit mag aus technologischer Sicht hoch sein, aber es wird immer die Möglichkeit von Fehlern geben, sagte der Staatsanwalt. “Wer übernimmt die Verantwortung, wenn das passiert? Der Staatsanwalt, die Maschine oder der Entwickler des Algorithmus?”
Die direkte Anwendung von KI bei der Entscheidungsfindung könnte auch die Autonomie eines menschlichen Staatsanwalts beeinträchtigen. Die meisten Staatsanwälte wollen nicht, dass Informatiker sich in ein juristisches Urteil einmischen, fügte der Staatsanwalt hinzu.
Eine weitere Frage ist, dass der KI-Staatsanwalt eine Anklage nur auf der Grundlage seiner bisherigen Erfahrungen erheben könnte, sagte der Staatsanwalt. Sie könne die öffentliche Reaktion auf einen Fall in einem sich verändernden sozialen Umfeld nicht vorhersehen.
“KI kann helfen, einen Fehler zu erkennen, aber sie kann den Menschen bei der Entscheidungsfindung nicht ersetzen”, sagte der Staatsanwalt.
Chinas Medien feierten den KI-Staatsanwalt als die weltweit erste Errungenschaft auf diesem Gebiet.
Im Gegensatz zu westlichen Demokratien gibt es in China kein unabhängiges Rechtssystem; die Gerichte werden von der Kommunistischen Partei Chinas kontrolliert.
Wer sich in einer Weise äußert oder verhält, die von der Partei als inakzeptabel angesehen wird, wie z. B. Dissidenten, religiöse Gläubige, Anwälte und Bürgerjournalisten, wird oft wegen vage definierter Vergehen wie “Streit schüren und Unruhe stiften” oder “Umsturz der Staatsmacht” angeklagt und in einem Justizsystem mit einer Verurteilungsquote von 99,9 Prozent ausnahmslos verurteilt.
Die Bürgerjournalistin Zhang Zhan beispielsweise befindet sich derzeit in der Mitte einer vierjährigen Haftstrafe, weil sie über die Anfänge des COVID-19-Ausbruchs in Wuhan im Februar 2020 berichtet hat. Ihre Verurteilung hat eine breite Verurteilung durch westliche Regierungen und Menschenrechtsgruppen nach sich gezogen. Zhangs Gesundheitszustand hat sich im Gefängnis drastisch verschlechtert, nachdem sie einen lang andauernden Hungerstreik durchgeführt hat und ihr eine angemessene medizinische Versorgung verweigert wurde, so ihre Familie.
